Sau khi Nội chiến Nga kết thúc, Shumilov tiếp tục phục vụ trong quân đội với tư cách là tiểu đoàn trưởng. Ông được cử theo học các khóa bồi dưỡng Kharkov dành cho cán bộ chỉ huy và chính trị cao cấp. Tháng 7 năm 1924, ông là chỉ huy một tiểu đoàn thuộc Trung đoàn súng trường 20, Sư đoàn súng trường số 7. Tháng 11 năm 1924, ông được bổ nhiệm làm tham mưu trưởng trung đoàn này. Từ tháng 1 năm 1927 - trợ lý chỉ huy Trung đoàn bộ binh 21 cùng sư đoàn. Sau khi hoàn thành các khóa học nâng cao "Vystrel" vào tháng 1 năm 1929, ông được bổ nhiệm làm trung đoàn trưởng và chính ủy trung đoàn súng trường 21, vào năm 1933 - giữ chức vụ tham mưu trưởng sư đoàn súng trường 96. Tháng 11 năm 1935, ông được phong quân hàm Đại tá.

Tháng 1 năm 1937, ông trở thành trợ lý chỉ huy Sư đoàn 87 Bộ binh. Tháng 6 năm 1937, ông được phong cấp bậc Lữ đoàn trưởng (комбриг), và được bổ nhiệm làm tư lệnh Sư đoàn súng trường số 7 của Quân khu Kiev. Từ tháng 2 năm 1938 đến tháng 3 năm 1939, Shumilov sang Tây Ban Nha làm cố vấn cho phe Cộng hòa trong cuộc Nội chiến Tây Ban Nha.

Tháng 4 năm 1938, ông được bổ nhiệm làm Tư lệnh Quân đoàn súng trường 11, đóng tại Quân khu Belarus. Tháng 9 năm 1939, đơn vị ông tham gia các chiến dịch Hồng quân tiến vào Tây Belarus, và sau đó là chiến tranh Xô-Phần. Vào tháng 7 năm 1940, Quân đoàn súng trường 11 được hợp nhất thành Quân khu đặc biệt Pribaltic.